(D)en digital verden – utopi eller dystopi?

Dagens program

Det digitale samfund

Det, at flere og flere aspekter af vores liv og hverdag digitaliseres, stiller ikke kun store krav til de underliggende systemer, men rejser også mange fundamentale spørgsmål; såvel tekniske som etiske.

Et klassificeringsproblem (falsk positiv).

Et klassificeringsproblem (falsk positiv).

Hvem bærer skylden: Maskinen eller Rafaela, der var “andenpilot”?

Et klassificeringsproblem (falsk positiv).

Al data, der ligger til grund for maskines klassificerings-evner bygger på data som mennesker har haft ansvaret for. Maskiner forholder sig ikke til andet end tal.

Et klassificeringsproblem (falsk positiv).

Derfor kan maskiner ikke være sexistiske eller racistiske. Men der eksisterer (stadig) systematisk sexisme og racisme og disse forhold vil være afspejlet i den data vi træner modeller på.

Dataindsamling og tabsfunktionen: den menneskelige vinkel

Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.

• Datatype og -omfang: Ægte data eller ideel data (the unicorn)?
• Definerede opgaver: Maskiner besejrer os, fordi vi beder dem om det. Det er ikke en skjult motivation (Luda, Tay: “thinking about you”).
• Tabsfunktionen: målet vi bruger til at bestemme, hvor langt maskinen er fra at løse problemet. En grundlæggende menneskebestemt komponent.

Dataindsamling og tabsfunktionen: den menneskelige vinkel

Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.

“Du har en befolkning, hvor 0,5 procent får en alvorlig sygdom, og træner en model til at identificere dem. Modellen opnår hurtigt en høj træfsikkerhed på 99,5 procent, men er ikke i stand til at identificere en eneste af de syge. Hvad er der sket?” (fra Inga Strümke)

Dataindsamling og tabsfunktionen: den menneskelige vinkel

Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.

• Udviklere bestemmer hvornår en model er færdig.
  • alt fra simpel ML og deep learning handler grundlæggende “bare” om kontinuerlig tilpasning af parametre indtil fejlen er så lille som muligt.
  • Universel approximation: tilnærmelse af den sande funktion og fordeling.
    
  • … der er dog gerne mellem millioner og milliarder af parametre og træningen af modeller anvender en mængde energi, der svarer til mange menneskeliv.
• Det meste af fremgangen indenfor AI er takket være brute force og enorme mængde data, snarer end vi har formået at putte mere “intellegens” ind i modeller.